арифметика значащих цифр

См. также в других словарях:

• арифметика значащих цифр — — [Л.Г.Суменко. Англо русский словарь по информационным технологиям. М.: ГП ЦНИИС, 2003.] Тематики информационные технологии в целом EN significant digit arithmetic …   Справочник технического переводчика

• АРИФМЕТИКА — искусство вычислений, производимых с положительными действительными числами. Краткая история арифметики. С глубокой древности работа с числами подразделялась на две различные области: одна касалась непосредственно свойств чисел, другая была… …   Энциклопедия Кольера

• Длинная арифметика — Длинная арифметика  в вычислительной технике операции над числами, разрядность которых превышает длину машинного слова данной вычислительной машины. По сути арифметика с большими числами представляет собой набор алгоритмов выполнения базовых …   Википедия

• Округление — математическая операция, позволяющая уменьшить количество знаков в числе за счёт замены числа его приближённым значением с определённой точностью. Содержание 1 Методы 1.1 Варианты округления 0,5 к ближайшему целому …   Википедия

• Целое (тип данных) — Целое, целочисленный тип данных (англ. Integer), в информатике  один из простейших и самых распространённых типов данных в языках программирования. Служит для представления целых чисел. Множество чисел этого типа представляет собой… …   Википедия

• Логарифм — График двоичного логарифма Логарифм числа …   Википедия

• Алгоритм Фюрера — (англ. Fürer’s algorithm)  быстрый метод умножения больших целых чисел. Алгоритм был построен в 2007 году швейцарским математиком Мартином Фюрером[1] из университета штата Пенсильвания как асимптотически более быстрый алгоритм, чем его… …   Википедия

• Фиксированная запятая — Число с фиксированной запятой  формат представления вещественного числа в памяти ЭВМ в виде целого числа. При этом само число x и его целочисленное представление x′ связаны формулой , где z  цена (вес) младшего разряда. Простейший… …   Википедия

• Число с фиксированной запятой — Число с фиксированной запятой  формат представления вещественного числа в памяти ЭВМ в виде целого числа. При этом само число x и его целочисленное представление x′ связаны формулой , где z  цена (вес) младшего разряда. Простейший… …   Википедия